为什么我们这类人无法合作

Why Our Kind Can’t Cooperate

我还记得,在我仍被迫去参加的时候,我们会堂每年都会发起一次募捐呼吁。就我没记错的话,形式其实很简单。拉比和司库会讲一讲会堂的开支,以及这次年度募捐有多么关键;然后会堂成员就坐在各自座位上,直接喊出自己愿意认捐的金额。

很直白,对吧?

让我跟你说说另一种年度募捐呼吁吧。事实上,那是我在机器智能研究所(Machine Intelligence Research Institute)早年间亲自发起过的一次。其中一个不同点是,这次呼吁是在互联网上进行的。另一个不同点是,受众大体来自无神论者/自由意志主义者/技术迷/科幻迷/早期采用者/程序员/等等这样一群人。(这是在大致指向「人类空间中的经验簇群」。如果你看得懂“人类空间中的经验簇群”这句话,那你就知道我在说谁。)

我很用心地写了那封募捐呼吁。按我的天性,我太骄傲了,不愿意向别人求助;不过这些年来,我大概已经克服了约 60% 的这种抗拒。那个非营利组织需要钱,而且发展得太慢,所以我在那一年的年度呼吁里下了些力气,也放了点文采。我把它发去了几个邮件列表,而这些邮件列表基本覆盖了我们潜在支持者的大部分人群。

几乎立刻,就有人开始在邮件列表上发帖,解释自己为什么不打算捐款。其中有些人提出了关于这个非营利组织哲学与使命的一些基础性问题。另一些人则谈起他们那些关于别的资金来源的精彩点子:这个非营利组织大可以从那些地方拿到钱,而不是从他们这里拿。(他们并没有自告奋勇说自己去联系那些来源;他们只是有一堆点子,告诉我们可以怎么做。)

现在,你也许会说:「嗯,也许你们的使命与哲学确实有基础性问题——你总不会想要去审查这种讨论吧?」

先把这个念头留着。

因为,确实有人在捐款。我们马上就开始通过 Paypal 收到捐款。我们甚至还收到祝贺留言,说这封呼吁终于让他们开始行动了。一笔 111.11 美元的捐款,附带着这样一条信息:「我决定多给一点。再多一个百,再多一个十,再多一个一,再多一个一角,再多一个一分。也许未必人人为一,但这一个正在努力为众人。」

但那些捐款者里,没有一个人在邮件列表上发帖表达自己的赞同。一个都没有。

就任何一位捐款者所知,他们都是孤身一人。而当他们第二天再上线时,迎接他们的不是感谢,而是一堆论证,告诉他们自己不该捐款。那些批评,那些为不捐款所作的辩护——只有这些被堂而皇之地公开展示了出来。

这就好像司库刚做完年度募捐呼吁,然后所有认捐的人都骄傲地站起来,大声宣布自己拒绝捐款的理由;而那些认捐的人却只是低声耳语,谁也听不见。

我认识一个推动理性主义事业的人,他会带着哀怨四处问:「为什么 Raëlian 飞碟邪教那种东西,能靠彻底的胡扯吸引成千上万、约 40,000 名成员感兴趣,而我们却连一千个真正做这件事的人都凑不出来?」

显而易见但错误的做法是这样把这个念头接下去:「那我们就照 Raëlian 那套来啊!往这个模因里也掺点胡扯进去!」为了照顾那些不会立刻被自身伦理抑制挡住的人,我要指出的是:每出名一个飞碟邪教,背后也许就有一百个失败掉的飞碟邪教。而黑暗面可能还要求某些并不显眼的技能,而,对,就是,并不具备这些技能:不是每个人都能当 Sith Lord。尤其是,如果你把自己计划中的谎言发到公共互联网去说,那你就输了。我不是什么犯罪大师,但就连我也看得出,有些人天生就不适合当骗子。

所以,想到某个别的群体——在你看来本应比你低一等——居然拥有更多的钱和追随者,于是就滋生出一种被侵犯了应得权利的感觉,这大概不是个好主意。那条路会把人引向——原谅我这么说——黑暗面。

但如果号称的「理性主义者」,连飞碟邪教那样的协调能力都做不到,那我们大概确实该开始认真问自己一些尖锐的问题了。

黑暗面是怎么运作的?

受尊敬的领袖发声,而后便响起一片纯粹赞同的合唱:即便仍有人内心怀疑,他们也会把怀疑藏在心里。于是,听众中的每一个个体都会看到这种纯粹一致的氛围,并因此对台上的想法更有信心——哪怕他们自己其实心中有疑虑,可是,其他人看上去同意啊。

(这在标准术语里叫作「多元无知」。)

如果在那之后仍有人不被说服,他们就离开这个群体(或者在某些地方,会被处决)——而剩下的人就更加一致了,也会在更少干扰下彼此强化。

(我把这叫作「群体的蒸发冷却」。)

不仅仅是领袖,连想法本身都会激发起无上限的热情与赞美。光环效应说的是:各种正面品质的感知会彼此相关——例如,告诉受试者某种食品防腐剂有哪些好处,会让他们觉得它风险更低,尽管这两个量在逻辑上并不相关。这会形成一种正反馈,让一个想法看上去越来越好、越来越好、越来越好,尤其是在批评会被视为背叛或罪恶的时候。

(我把这称作「情感死亡螺旋」。)

所以,这些都属于能把群体捆在一起的强大黑暗面力量。

而想必我们是不会肮脏到去碰这种……

因此,作为一个群体,光明面就永远会分裂而软弱。技术迷、书呆子、科学家,甚至非原教旨主义的宗教,都永远不可能具备那种驱动激进伊斯兰主义的狂热统一。技术优势终究只能走到一定程度;你的工具可以被复制、被偷走,再反过来拿来对付你。归根结底,在任何群体冲突中,光明面都会输,而未来也注定属于黑暗。

我觉得,一个人对这一前景的反应,能说明很多关于他对「理性」的态度。

有些「文明冲突论」作者似乎接受了这样的判断:启蒙精神从长远看注定会败给激进伊斯兰主义;于是他们叹口气,悲伤地摇摇头。我猜他们大概是在试图展示自己那种愤世嫉俗的老练之类的吧。

至于我自己,我一直觉得——就算你觉得我疯了也行——一个真正的理性主义者,理应在现实世界中也是有效的

所以我无法接受这样一种想法:黑暗面靠着他们的多元无知和情感死亡螺旋,就总能赢,因为他们比我们协调得更好

你也许会以为,真正的理性主义者不是应该擅长协调才对吗?那些不理性的东西肯定会有它们的坏处吧?那种模式总不可能是最优的,对吧?

而如果当前的「理性主义者」群体无法协调——如果他们连支持群体项目都做不到,而一个普通会堂却能轻易从成员那里收到捐款——那么,剩下那条三段论,我就留给你自己补完了。

我有句有时会说的话:「做半个理性主义者是危险的。」

举个例子,我能想到一些办法,通过选择性地教某些理性方法,去破坏一个人的智力。假设你教某人一长串逻辑谬误和认知偏差,并训练他在别人论证里识别这些谬误和偏差。但你会刻意挑出那些最容易拿来指控别人的谬误和偏差,那些最一般、也最容易被滥用的东西。而你却不会警告他们:对于自己赞同的论证,也要像审视不合己意的论证那样严苛地找漏洞。于是,他们获得了一整套只会拿来指控自己不喜欢的论证和论证者的缺陷清单。我怀疑,这正是聪明人最后变蠢的一条主要路径。(顺便注意一下,我刚刚又给了你一个「完全泛用的反驳论证」,可以拿去反驳那些你不喜欢其论证的聪明人。)

同样地,如果你想确保一个「理性主义者」群体永远无法完成任何需要一个以上人协作的任务,你只需要教他们个人理性的技巧,而对协调性的群体理性技巧只字不提。

我之后会再多写一些,谈我认为理性主义者也许可以怎样更好地协调。但在这里,我想先聚焦在你可以称之为「分歧文化」、甚至「反对意见文化」的东西上;这是阻止技术迷群体实现协调的两股主要力量之一。

想象一下,你在一个会议上,演讲者做了一个 30 分钟的报告。结束后,人们排到麦克风前提问。第一个提问者反对第 14 张幻灯片所用的对数坐标,并引用 Tufte 的 The Visual Display of Quantitative Information。第二个提问者质疑第 3 张幻灯片里的一个主张。第三个提问者提出了一个似乎能解释同一批数据的替代假说……

完全正常,对吧?现在再想象一下,你在一个会议上,演讲者做了 30 分钟报告。人们排到麦克风前。

第一个人说:「你的报告里说的每一句话我都同意,而且我觉得你太厉害了。」然后退到一边。

第二个人说:「第 14 张幻灯片太漂亮了,我从里面学到了很多。你真棒。」退到一边。

第三个人——

好吧,你永远不会知道麦克风前第三个人想说什么了,因为到这时候,你早已尖叫着逃出了房间;推动你逃跑的,是一种深入骨髓的恐惧,就仿佛 Cthulhu 从讲台里爆了出来。你害怕的是:某种不可能自然发生的现象居然入侵了你的会议。

没错,一个不能容忍分歧的群体并不理性。但如果你容忍分歧——如果你容忍分歧,却不容忍赞同——那你同样也不理性。你只愿意听某些诚实的想法,却不愿意听另外一些。你就是一个危险的半个理性主义者。

我们聚在一起时的不自在,正如飞碟邪教成员彼此分开时的不自在一样。这样也不对。把愚蠢反过来并不等于聪明。

假设我们有两组士兵。第 1 组里,列兵不懂战术和战略;只有中士懂一点战术,只有军官懂一点战略。第 2 组里,从上到下每个人都懂战术,也都懂战略。

我们会因此期待第 1 组打败第 2 组吗?理由是:第 1 组会服从命令,而第 2 组里的每个人都会想出更好的主意,胜过他们被下达的任何命令?

在这种情况下,我就不得不怀疑第 2 组到底有多懂军事理论了,因为「一群不协调的乌合之众会被屠杀」是一个初等命题。

拥有更多知识的情况下反而做得更差,意味着你某个地方做得非常不对。你至少总应该能够实施出一种:就算自己什么都不懂时也会采用的同样策略;最好还能做得更好。你当然不应该做得更差。如果你发现自己开始后悔自己的「理性」,那你就该重新想想什么才是理性

另一方面,如果你只是半个理性主义者,那么你就很容易在拥有更多知识时反而做得更差。我记得有一个很精彩的实验,显示出:政治立场鲜明、而且对议题懂得更多的学生,在面对不合己意的证据时反而更不容易受影响,因为他们手里有更多「弹药」,专门用来反驳那些与自己立场不一致的证据。

我们似乎被困在了一条可怕的「部分理性」山谷里:结果就是,我们的协调能力比宗教原教旨主义者还差,投入群体事业的努力甚至比飞碟邪教徒还少。诚然,我们确实好不容易挤出来的那一点努力,也许在帮助人而不是害人这件事上会更精准——但这并不是个可以接受的借口。

如果由我来系统训练理性主义者,那么其中会有关于如何分歧的课程,也会有关于如何赞同的课程;会有让学员更能适应异议的课程,也会有让他们更能适应一致的课程。有一天大家穿得各不相同地来,另一天大家则统一穿制服来。你必须把两边都覆盖到,否则你就只是半个理性主义者。

你能想象训练未来的理性主义者去穿制服、齐步行进,并练习在某些环节里彼此一致赞同、为讲台上的发言者所说的一切鼓掌吗?这听上去是不是一种无法言说的恐怖,好像整件事已经公然承认自己是个邪恶的邪教?可是,为什么练习这个就是可以,而练习在人群里反对其他所有人却是可以的?难道你这一辈子永远都不会需要和多数人达成一致吗?

我们的文化把全部强调都放在英雄式的分歧和英雄式的抗拒上,却完全没有放在英雄式的赞同或英雄式的群体共识上。我们通过发明对别人论证的聪明反驳,来展示自己更高的智力,以及自己属于那个不从众共同体。也许正是技术迷/硅谷那一群人始终处于边缘地位的原因:在更大的社会里,他们不断输给那些没那么不从众的派别。没错,我们输,并不是因为我们太优越;我们输,是因为我们那种只讲个人主义的传统,正在破坏我们合作的能力。

而我认为,在技术迷社群里破坏群体努力的另一个主要成分,则是:为强烈情感而感到羞耻。 我们脑子里仍然卡着一种把理性当成 Spock 的原型——把理性理解成无情感。或者说,这是一种相关的错误:把理性当成愤世嫉俗——试图通过表现出自己比别人没那么在乎,来展示那种见惯世事的高明。小心翼翼地、夸张地、公开地去鄙视那些天真到竟然显露自己对某件事强烈在乎的人。

如果讲台上的发言者说,自己对比如说抗击衰老这件事在乎到,愿意为这项事业去死——这会不会让你感到不舒服?

但无论在概率论还是决策理论里,都没有任何地方写着:理性主义者不该在乎。我仔细看过那些方程了;真的,没有这一条。

我听过的关于理性最好的非正式定义,是:「凡能被真理摧毁之物,就理应被摧毁。」我们应当追求的是感受符合事实的情绪,而不是追求没有情绪。如果某种情绪会被真理摧毁,我们就该放下它。但如果某项事业值得奋斗,那我们就理应完整地感受到它的重要性。

有些东西就是值得为之去死。对,真的!如果我们没法自在地承认这一点,也没法自在地听别人这样说,那我们就会很难在群体项目上做到足够在乎——也很难做到足够协调——从而真正投入一些努力。你必须把这件事的两面都教出来:「凡能被真理摧毁之物,就理应被摧毁」,以及「凡被真理滋养之物,就理应茁壮成长。」

我听人论证过,比如在科学论文里禁止情绪化语言,是让事实在不受干扰的情况下彼此交锋的重要组成部分。但这并不意味着这种禁忌应当适用于所有地方。我认为,人生里有些部分,我们应当学会为强烈的情感语言、雄辩和诗意而鼓掌。当有某件事确实需要去做时,富于诗性的呼吁能帮助事情被做成;因此,它们本身也理应得到掌声。

我们不能让自己揭露适得其反的事业、以及缺乏正当根据的呼吁的努力,反过来踩烂那些真的需要去完成的任务。你需要它的两面——既要愿意转身离开适得其反的事业,也要愿意赞美富有成效的事业;既要有力量不被无根据的呼吁所左右,也要有力量被有根据的呼吁所打动。

我觉得,会堂每年募捐时的做法其实就是对的。他们并不会一排一排点名,把个人架到聚光灯下,盯着他们说:「Schwartz 先生,打算捐多少?」人们只是宣布自己的认捐金额——没有盛大戏剧,也没有骄傲炫耀,只是简单地宣布——而这会鼓励其他人也这样做。那些没什么可捐的人,就保持沉默;那些有异议的人,则选择另一个更早或更晚的时机来表达。考虑到人们往往难以像自己所希望的那样有动力,而社会性的鼓励又确实能帮助他们克服这种意志薄弱,这大概就是一个健全人类共同体里事情本该有的样子。

但即便你不同意这一部分,那么我们至少也该说:无论支持还是反支持的意见,都应该被公开表达出来。支持者面对着一堵看上去坚不可摧的反对与分歧之墙——哪怕那堵墙是由他们自己那种不舒服的自我审查所造成的——这也不是群体理性。它只不过是黑暗面群体用来控制追随者的那种做法的一个镜像而已。把愚蠢反过来并不等于聪明。